[Nettime-nl] Joseph Weizenbaum strierf afgelopen woensdag 5 maart

[Ine Poppe <I.Poppe@chello.nl>]

Via Geert Lovink hoorde ik dat computer-rebel Joseph Weizenbaum  
afgelopen woensdag 5 maart gestorven is.

http://www.reticon.de/news/joseph-weizenbaum-gestorben_2089.html

Verleden jaar bezocht ik deze bijzondere man en schreef onderstaand  
stuk, dat ik verkorte versie verschenen is in het NRC-Handelsblad met  
een prachtige tekening van Peter Pontiac. Hierbij post ik de lange  
versie.


Joseph Weizenbaum

Zenuwachtig als een meisje van zestien op haar eerste afspraakje, bel  
ik aan bij het Hochhaus van Joseph Weizenbaum in Berlin-Mitte  
(Nikolai-Viertel). Op het plein tegenover zijn huis steekt de  
kolossale Berliner Kathedraal af tegen de bomen en iets verderop ligt  
het Max Engels Forum.
             Prof Joseph Weizenbaum is aan het einde van zijn leven.  
Pas sinds een paar weken weet de wereldberoemde computerwetenschapper  
(de rebel van het Massachusetts Institute of Technology) dat hij  
ernstig ziek is en het verbaast hem: ,,Mijn hele leven ben ik nooit  
daadwerkelijk ziek geweest. Vreemd, want ik heb niet gemerkt dat ik  
iets onder de leden had. De artsen geven me niet meer heel lang. Ik  
had graag een feest gegeven voor mijn 85ste verjaardag op 8 januari  
2008, vijftig procent kans dat ik dat haal."
             Weizenbaum oogt levendig en laat strijdvaardig de enorme  
hoeveelheid pillen zien die hij dagelijks moet slikken. Deze  
ondeugend kijkende man, die een beetje op Einstein lijkt vanwege zijn  
grote grijze snor, heeft lang grijs haar en priemende ogen achter  
ronde brillenglazen.
             Het kleine appartement is gevuld met boeken, een tafel  
vol papieren, een computer in de hoek, een kleine keuken. Trots toont  
hij het uitzicht vanaf zijn balkon. Als je over de reling buigt, zie  
je in de verte de buurt waar Weizenbaum is opgegroeid als joods  
jongetje voor de tweede wereld oorlog. Zijn vader was  
'Kuerschnermeister' (bontwerker) en een bontjas was ook het enige van  
waarde dat zijn ouders bij zich konden houden tijdens hun vlucht voor  
de nazi's in 1936 naar de Verenigde Staten. Weizenbaum was dertien  
jaar oud maar met zijn handen beschrijft hij de bontmantel alsof hij  
die gisteren nog vasthield. In 1941 begon hij met zijn studie  
wiskunde in Detroit, Michigan. Hij onderbrak zijn studie tijdens de  
tweede wereldoorlog om bij de Amerikaanse luchtmacht als meteoroloog  
te dienen. Als hij weer terug is op de Wayne universiteit begint net  
het tijdperk waarin de eerste grote (mainframe) computers worden  
gebouwd. Weizenbaum is erbij en 1952 bedenkt hij voor General  
Electrics een baanbrekend computersysteem voor de Bank of America.  
Vanaf begin jaren '60 werkt Weizenbaum aan het Massachusetts  
Institute of Technology (MIT) als computerwetenschapper. Hij is  
betrokken bij de ontwikkeling van het ARPA-net waaruit ons huidige  
Internet is voortgekomen.
             In de periode 1964-66 ontwikkelt hij het  
computerprogramma Eliza, gemodelleerd naar een Rogeriaanse therapeut,  
die vragen van een patiënt terugkaatst door middel van steekwoorden.  
Deze mens-machine interface creëert de illusie dat er een conversatie  
in natuurlijke taal tussen mens en machine plaatsvindt. Bijvoorbeeld:
Patiënt: Ik voel me ongelukkig
ELIZA: Gelooft u dat dit gesprek u helpen kan niet meer ongelukkig te  
zijn?
Patiënt: Ik weet niet, maar ik heb hulp nodig dat is duidelijk.
ELIZA: Wat betekent hulp voor u?
patiënt: Bijvoorbeeld dat ik leer om beter met mijn moeder om te gaan.
ELIZA: Vertel mij meer over uw familie.
patiënt: Mijn moeder domineert mij.
ELIZA: Alleen uw moeder? Of nog iemand?
Etcetera
Eliza werd vernoemd naar Eliza Doolittle uit de musical 'My Fair  
Lady'. Weizenbaum zegt hierover: ,, Mijn idee was om mijn  
spraakanalyse programma in zijn talige uitdrukkingswijze steeds beter  
en geraffineerder te maken, net zoals de bloemenverkoopster in de  
musical onder de begeleiding van haar leraar Professor Higgins." Voor  
Weizenbaum was dit computerprogramma een grap, een parodie, en hij  
had niet voorzien dat er binnen de kortste keren overal kopieën van  
zouden Eliza opduiken. Psychiater Dr. Kenneth Mark Colby schreef in  
een toonaangevend medisch tijdschrift dat dankzij dit hulpmiddel, het  
moest natuurlijk nog wel worden verfijnd, honderden patiënten  
tegelijk geholpen zouden kunnen worden wat aan het toenmalige gebrek  
van personeel tegemoet zou komen.  In een interviewboek met Gunna  
Wendt (2006, Verlag Herder) met de sprekende titel: 'Wo sind die  
Inseln der Vernunft im Cyberstrom?' vertelt Weizenbaum dat zijn  
secretaresse op een zeker moment vraagt of hij even wil wachten voor  
hij zijn kantoor binnengaat, ze is in een intiem gesprek met Eliza en  
wil dat liever alleen afhandelen. Weizenbaum: ,,Ik was werkelijk  
geschokt, misschien ook naïef, maar ik kon mij niet voorstellen dat  
men een computer geheimen uit zijn leven toevertrouwt. Wat heeft dat  
voor zin?" Toen ook andere takken van de wetenschap in Eliza  
mogelijkheden zagen werd Weizenbaum steeds grimmiger. Lange tijd  
wilde hij niet meer over Eliza praten, geschrokken door het  
enthousiasme ten aanzien van de mechanisatie van menselijke  
karakteristieken en talenten. Chatterbots zoals Eliza hebben vele  
opvolgers, het Internet is ermee bezaaid en elk jaar wordt in Boston  
de Loebnerprijs uitgereikt voor de meest menselijke chatterbot.
             In zijn boek 'Computer Science and Human reason' (1976)  
dat inmiddels in tien talen is vertaald, legt Weizenbaum uit op welke  
filosofische en ethische problemen hij stuitte door Eliza, die geen  
substituut mocht worden voor menselijke interactie. Artificiële  
intelligentie kan volgens hem nooit een mens vervangen door gebrek  
aan empathie en wijsheid. Weizenbaum: ,,Niemand stoort het  
tegenwoordig wanneer mijn collega Marvin Minsky zegt: ,,De hersenen  
zijn voornamelijk een vleesmachine (meat-machine)." Meat betekent  
dood vlees daar kun je van alles mee doen: koken, opeten, weggooien.  
Zo'n uitspraak houdt minachting voor het menselijk leven in."
             In vele artikelen en lezingen spreekt Weizenbaum over de  
mythe van de computer en de mythe van de artificiële intelligentie.  
Hij heeft kritiek op de manier waarop er over computers en het  
fenomeen artificiële intelligentie gedacht wordt. Men kan de computer  
weliswaar vragen toevertrouwen die met intelligentie te maken hebben  
maar geen vragen waar het om fundamentele menselijke eigenschappen  
zoals geloof, hoop en liefde gaat. Gedurende zijn leven snijdt de  
computercriticus vele onderwerpen aan zoals scholing, opvoeding en  
politiek. Weizenbaum: ,,Ik ben geen computercriticus, ik ben een  
maatschappij-criticus." Tijdens de Vietnamoorlog liep hij mee in  
demonstraties en doet dat nu tegen de Irak-oorlog. Hij bekritiseerde  
collega's van het MIT, de band van dat instituut met het Pentagon, de  
rol die het uitgebreide defensie-apparaat in de VS speelt in de  
ontwikkeling van computernetwerken.
             In de documentaire 'Weizenbaum. Rebel at Work' van Peter  
Haas en Silvia Holzinger uit 2006 licht hij toe: ,,Ik geloof dat de  
helft of meer van alle wetenschappers en ingenieurs in Amerika direct  
of indirect voor het leger werken. En wij weten dat, daar is geen  
onderzoek naar ethiek voor nodig. We werken aan efficiëntere methoden  
om massamoord te kunnen uitvoeren en daar treedt een extensief  
verdringingmechanisme in werking. Een toverwoord in deze context is  
'waardevrij', pure wetenschap zou waardevrij zijn. Maar dat is  
natuurlijk onzin."
             Wetenschap betekent volgens Weizenbaum vragen stellen en  
de keuze die men maakt heeft alles met de waarden van de samenleving  
te maken. Neem het internet - 'een magnifiek product van menselijke  
genius' volgens Weizenbaum. Het internet is volgens velen  
toegankelijk voor iedereen. Maar wie is iedereen? Niet de meerderheid  
van de wereldbevolking. Het Internet is vergelijkbaar met een  
vuilnisbelt in Calcutta waar mensen op zoek gaan naar eetbare of  
verkoopbare voorwerpen: 'Er zijn wel diamanten, maar hoe vind ik  
die?' Het gaat erom de juiste (kritische) vragen te stellen, goed te  
leren lezen en luisteren.
             Tijdens de lunch in het restaurant om de hoek van zijn  
huis pakt Weizenbaum een suikerklontje, houdt het in de lucht en  
zegt: ,,Als de mensheid maar zo'n beetje Vernunft (verstand,  
redelijkheid) zou hebben, zouden we een paradijs op aarde kunnen  
maken, we hebben er de kennis en de middelen voor." Eerder in zijn  
woning zette hij uiteen dat het de vraag is of de mensheid over  
honderd jaar nog zal bestaan. ,,Ik denk niet dat mijn kleinkinderen  
aan een natuurlijke dood zullen sterven." Hij refereert aan Stephen  
Hawking, die betwijfelt of de mensheid op deze aardbol nog lang heeft  
te gaan als alle bedreigingen op een rijtje worden gezet: global  
warming; een dodelijke virus; een nucleaire ramp of de impact van een  
komeet kunnen de planeet en het leven erop in een oogwenk wegvagen.  
Weizenbaum voorziet dat het gebied rond de evenaar verder zal  
veranderen in woestijngebied, er zal grootscheepse emigratie  
plaatsvinden met verschrikkelijke slachtingen ten gevolg. Op mijn  
tegenwerpingen reageert hij door vanuit een soort helicopter-overview  
onze hedendaagse technocratie te beschouwen: de mens kan zichzelf op  
wereldschaal uitroeien, we leven in een complexe onbeheersbare  
technische wereld waarin alles in elkaar grijpt. De millenniumbug  
komt ter sprake en Weizenbaum zegt lachend: ,,Dan komt er zo'n  
televisiejongen een paar quotes halen: ,,Meneer Weizenbaum wat vindt  
u van de millenniumbug?" En ik zeg: ,,O, daar heb ik geen last van,  
ik ben Joods en heb een andere jaartelling."
              Na een vol leven van onderzoek en lesgeven over de hele  
wereld woont hij weer in Berlijn. Zijn dochter, die advocaat is,  
leeft met haar gezin vlakbij. Weizenbaum voelt zich een dissident in  
Duitsland, waar dat hij min of meer is blijven hangen. Hij won vele  
onderscheidingen o.a. van de Alexander-von-Humboldt Stichting waamee  
hij onderzoek verrichtte in Freiburg; de Norbert Wiener Prijs voor  
Computer Professionals for Social Responsibility (CPSR) en de 'Preis  
des Forums Informatkerinnen und Informatiker' voor vrede en  
maatschappelijke verantwoordelijkheid (FIFF).
             Toen Weizenbaum in 2002 een prijs van de Dagmar en  
Vaclav Havel Stichting ontving, zei hij: ,,Deze prijs is voor mij  
heel belangrijk omdat het heel weinig met computers te maken heeft.  
Nou ja, het gaat er niet om of ik een bijzonder goede Ingenieur ben,  
maar dat ik de prijs verdien omdat ik een goed mens ben -in ieder  
geval wordt dat gezegd of gedacht. En dat verheugt me zeer."
             Een week geleden stuurde Joseph Weizenbaum een tekst  
rond aan zijn vrienden genaamd "Wat ik geloof", waarin de  
computerwetenschapper in 17 punten zijn levensfilosofie uiteenzet.  
Hij begint met een uitspraak van Abraham Kaplan: 'Wie slechts een  
hamer heeft, ziet de hele wereld als een spijker.' In de tekst noemt  
hij de verschrikkingen van de atoombom, God opgevat als liefde, het  
onderscheid tussen goed en kwaad en hoe belangrijk het is voor  
scholieren om helder en duidelijk te leren formuleren.

             Na een dag optrekken met Joseph Weizenbaum geeft hij een  
hand en zegt: 'Wens me maar een 'Happy Landing'" Schaterlachend  
vervolgt hij: ,,En geloof maar niets van wat ik vertel, het zijn  
allemaal leugens!"
______________________________________________________
* Verspreid via nettime-nl. Commercieel gebruik niet
* toegestaan zonder toestemming. <nettime-nl> is een
* open en ongemodereerde mailinglist over net-kritiek.
* Meer info, archief & anderstalige edities:
* http://www.nettime.org/.
* Contact: Menno Grootveld (rabotnik@xs4all.nl).